TensorRT INT8 量化精度调优
30章 · 实战目录
🎯
从校准到调优 · 友好色系
01
INT8量化概述
为什么需要INT8量化？收益与挑战
02
量化基本原理
对称vs非对称，Scale/ZeroPoint详解
03
TensorRT INT8量化流程
校准→量化→推理，整体Pipeline
04
校准器(Calibrator)详解
Entropy, MinMax, Entropy2, Legacy
05
校准数据集构建
数据选择、数量、分布影响
06
校准过程监控
Scale/ZeroPoint查看，收敛判断
07
逐层精度分析
Layer Inspector / Polygraphy
08
敏感层定位
余弦相似度/SNR敏感度分析
09
精度调优策略总览
数据/校准器/网络/混合精度
10
数据增强与校准
随机裁剪/翻转，提升鲁棒性
11
校准器选择调优
分类/检测/分割实战经验
12
校准集数量调优
精度影响曲线，最优数量
13
逐层量化精度回退
敏感层回退FP16/FP32
14
Per-tensor vs Per-channel
优势与代价，何时使用
15
QAT量化感知训练基础
QAT vs PTQ 区别
16
QAT实战
PyTorch ao.quantization → ONNX → TRT
17
QAT与TensorRT衔接
加载Scale/ZeroPoint
18
混合精度量化
INT8+FP16+FP32按层指定
19
动态形状下INT8量化
动态batch/分辨率注意事项
20
多输入/多输出模型量化
多分支/多任务策略
21
量化后推理速度评估
吞吐/延迟测量，预热排除
22
量化后显存占用分析
INT8 vs FP16/FP32 节省验证
23
常见精度问题排查
NaN/全零/骤降排查思路
24
Polygraphy工具实战
模型比较/精度分析/调试
25
TensorRT官方精度调优工具
trtexec/onnx2trt参数
26
自定义校准器实现
继承IInt8Calibrator
27
量化与稀疏化结合
INT8 + 结构化稀疏
28
端到端案例1: ResNet-50
ONNX到TensorRT全流程
29
端到端案例2: YOLOv8
检测模型INT8调优实战
30
端到端案例3: BERT
NLP模型INT8调优实战